La inteligencia artificial (IA) ya no se limita a los laboratorios de alta tecnología y los guiones de películas de Hollywood; se está incorporando progresivamente a nuestra vida cotidiana. ChatGPT, la herramienta de generación de texto, apenas necesita presentación y los generadores de arte con IA (como Midjourney y DALL-E) le pisan los talones en cuanto a popularidad. Escribir prompts absurdos y recibir a cambio ridículos clips artísticos es una forma divertida de pasar la tarde.
Sin embargo, mientras tú utilizas los generadores de arte basados en IA para reírte un rato, los ciberdelincuentes usan esta tecnología para engañar a la gente y conseguir que confíe en fake news sensacionalistas, perfiles de citas falsos e identidades suplantadas con fines malintencionados. Si bien puede ser difícil detectar imágenes sofisticadas generadas con IA, hay señales que indican que lo que estás viendo es sospechoso o que detrás de un perfil generado con IA puede haber un ciberdelincuente.
¿Qué son los generadores de arte con IA y los deepfakes?
Para comprender mejor las ciberamenazas que plantean estas dos categorías, incluimos a continuación algunas definiciones rápidas:
- Generadores de arte con IA. Detrás de los generadores de arte suele haber IA generativa. Este tipo de inteligencia artificial está cargada con miles de millones de ejemplos de obras de arte. Cuando alguien escribe un prompt, la IA consulta su vasta biblioteca y selecciona la combinación de obras de arte que cree que mejor se ajustan a las indicaciones. El uso de la IA para generar obras de arte es un tema de debate candente en ese sector, ya que ninguna de las obras que crea es técnicamente original. El producto final se obtiene a partir de las obras de varios artistas, la mayoría de los cuales no han concedido permiso al programa informático para utilizar sus creaciones.
- Deepfakes. Un deepfake es una manipulación de fotos y vídeos existentes de personas reales. Como resultado, se puede crear una persona totalmente nueva a partir de la recopilación de otras personas reales, o bien se puede manipular al sujeto original para que parezca que está haciendo algo que nunca hizo.
El arte generado con IA y los deepfakes no son tecnologías que se encuentren en la dark web. Cualquiera puede descargar una app de arte con IA o de creación de deepfakes, como FaceStealer y Fleeceware. Además, como la tecnología no es ilegal y tiene muchos usos inofensivos, es difícil regularla.
¿Cómo se utiliza el arte con IA con fines malintencionados?
Es perfectamente inocente utilizar arte generado con IA para crear una foto de portada para tu perfil en redes sociales o para ilustrar un artículo de un blog. Sin embargo, es mejor ser transparente con el público e incluir un texto de renuncia de responsabilidad o un pie de foto que informe de que no es una obra de arte original. El arte generado con IA, en cambio, sí es malicioso cuando se utilizan imágenes para engañar intencionadamente a otros y obtener beneficios económicos.
Las personas con perfiles falsos pueden utilizar fotos y vídeos deepfake para convencer a sus víctimas de que realmente buscan el amor. Si revelan su verdadero rostro e identidad podrían arriesgarse a ser descubiertos, por lo que utilizan las fotos de otra persona o bien crean deepfakes de una biblioteca de fotos completa.
Los propagadores de fake news también pueden recurrir a la ayuda del arte generado con IA o los deepfakes para añadir “credibilidad” a sus teorías conspirativas. Si añaden a sus titulares sensacionalistas una foto que, a simple vista, demuestra su legitimidad, es más probable que la gente comparta y difunda la noticia. Las noticias falsas son perjudiciales para la sociedad, ya que pueden generar emociones negativas extremas que afecten a millones de personas. La indignación que provocan puede incluso dar lugar a acciones violentas en algunos casos.
Por último, algunos delincuentes pueden utilizar deepfakes para engañar a los identificadores faciales y acceder a cuentas online confidenciales. Pueden hacer que parezca que alguien en quien confías dijo algo distinto de lo que realmente dijo. Prueba McAfee Deepfake Detector como defensa contra los deepfakes maliciosos y engañosos.
Para evitar que alguien consiga acceder a tus cuentas mediante un deepfake, protégelas con autenticación multifactor. Eso significa que es necesario más de un método de identificación para abrir la cuenta, por ejemplo, el envío de códigos de un solo uso a tu teléfono móvil, contraseñas, respuestas a preguntas de seguridad o la identificación por huella dactilar, además de la identificación facial.
Tres formas de detectar imágenes falsas
Antes de iniciar una relación por Internet o compartir lo que parece una noticia en redes sociales, escudriña las imágenes utilizando estos tres consejos para descubrir si se trata de deepfakes o arte generado con IA con fines malintencionados.
1. Inspecciona el contexto que rodea a la imagen.
Las imágenes falsas no suelen aparecer solas. A menudo hay texto o un artículo más amplio alrededor. Inspecciona el texto para detectar erratas, fallos gramaticales y, en general, una mala redacción. Los remitentes de phishing son conocidos por lo mal que escriben. El texto generado con IA es más difícil de detectar porque la gramática y la ortografía suelen ser correctas; sin embargo, las frases pueden parecer entrecortadas.
2. Evalúa lo que dice.
¿La imagen parece extraña para ser real? ¿Demasiado bueno para ser verdad? Añade a “No creas todo lo que leas en Internet”, “No creas todo lo que veas en Internet”. Si una noticia falsa pretende ser real, busca el titular en otro sitio. Si es realmente interesante, otro sitio, como mínimo, informará sobre el acontecimiento.
3. Comprueba si hay distorsiones.
La tecnología de IA a menudo genera uno o dos dedos de más en las manos, y un deepfake puede crear ojos con una mirada sin alma. Además, puede haber sombras en lugares donde no serían naturales y el tono de la piel puede parecer desigual. En los deefakes de vídeo, puede que la voz y las expresiones faciales no coincidan exactamente, haciendo que el sujeto parezca robótico y rígido.
Aumenta tu seguridad online con McAfee
Las imágenes falsas son difíciles de detectar y probablemente serán más realistas a medida que vaya mejorando la tecnología. Conocer las amenazas emergentes de la IA te ayuda a prepararte para tomar el control de tu vida online. Hay cuestionarios en Internet que comparan el arte generado con IA y los deepfakes con personas y obras de arte auténticas creadas por humanos. Cuando tengas diez minutos, puedes hacer un cuestionario para conocer tus errores. Esto te ayudará a identificar el arte falso con fines malintencionados en el futuro.
Disfruta de tu vida online con seguridad con McAfee. McAfee+ Ultimate es el servicio integral de protección de la privacidad, la identidad y los dispositivos. Protege hasta a seis miembros de tu familia con el plan familiar y recibe hasta 2 millones USD de cobertura por robo de identidad. Asóciate con McAfee para detener cualquier amenaza que escape a tu radar.
Mantente al día
Síguenos para mantenerte al día de las novedades de McAfee y estar al tanto de las amenazas de seguridad más recientes para particulares y dispositivos móviles.
